Американский стартап в сфере аналитики больших данных и машинного обучения Databricks объявил о выходе DBRX, большой языковой модели (LLM) общего назначения, которая, по его словам, превосходит в стандартных бенчмарках все существующие LLM с открытым исходным кодом, а также некоторые проприетарные ИИ-модели.

Стартап заявил, что открывает исходный код модели, чтобы побудить пользователей отказаться от коммерческих альтернатив. Он отметил, что согласно исследованию Andreessen Horowitz LLC, почти 60 % лидеров в области ИИ-технологий заинтересованы в увеличении использования или переходе на open source, если открытые модели после тюнинга примерно соответствуют по производительности проприетарным моделям.

Источник изображений: Databricks

«Я считаю, что самые ценные данные хранятся внутри предприятий. ИИ как бы исключён из этих сфер, поэтому мы пытаемся реализовать это с помощью моделей с открытым исходным кодом», — цитирует ресурс SiliconANGLE заявление гендиректора Databricks Али Годси (Ali Ghodsi) на брифинге с журналистами. По словам Годси, лучше всего DBRX подходит для сфер, где критически важны управление и безопасность, например, для финансовых услуг и здравоохранения, или там, где важен тон ответов, например, в области самообслуживании клиентов.

DBRX использует архитектуру Mixture of Experts (MoE, набор экспертов), которая делит процесс обучения между несколькими специализированными «экспертными» подсетями. Каждый «эксперт» владеет определёнными навыками, а исходный запрос оптимальным образом распределяется между «экспертами». Вице-президент Databricks по генеративному ИИ, перешедший в компанию вместе с приобретением MosaicML, соучредителем которой он был, заявил, что MoE работает даже лучше человека.

Хотя DBRX с 132 млрд параметром почти в два раза больше Llama 2, она всё равно вдвое быстрее. Также сообщается, что DBRX превзошла существующие LLM с открытым исходным кодом Llama 2 70B и Mixtral-8x7B (тоже MoE), а также запатентованную GPT-3.5 Turbo в тестах на понимание языка, программирование, математику и логику. Обучение модели на общедоступных и лицензированных источниках данных в течение двухмесячного периода обошлось Databricks всего в $10 млн с использованием 3 тыс. ускорителей NVIDIA H100.

По словам компании, при создании приложений генеративного ИИ модель DBRX можно использовать вместе с Databricks Mosaic AI, набором унифицированных инструментов для создания, развёртывания и мониторинга моделей ИИ. Базовая модель DBRX Base и продвинутая модель DBRX Instruct доступны по открытой лицензии для исследований и коммерческого использования на GitHub и Hugging Face. Разработчики могут уже сегодня создавать свои варианты DBRX на основе собственных данных на платформе Databricks.

Максим Дунин, один из ключевых разработчиков популярного веб-сервера nginx, сообщил об уходе из проекта. Вместо этого он начнёт развивать альтернативный продукт под названием FreeNginx. Цель этой инициативы, официально анонсированной 14 февраля 2024 года, заключается в том, чтобы «оградить разработку nginx от произвольного корпоративного влияния».

В открытом письме Дунин отмечает, что компания F5 (владелец nginx) закрыла московский офис в 2022 году, но сам Дунин остался в российской столице. При этом стороны заключили соглашение о том, что он продолжит участвовать в разработке nginx в качестве волонтёра. Так и было практически два года, однако затем произошли изменения на корпоративном уровне.

Источник изображения: nginx

«К сожалению, недавно новый нетехнический менеджмент F5 решил, что лучше знает, как управлять проектами open source. В частности, они решили вмешаться в политику безопасности nginx, реализуемую годами, игнорируя как устоявшиеся нормы, так и позицию разработчиков», — пишет Дунин.

По его словам, с точки зрения F5 как владельца nginx изменения понятны, но они противоречат соглашению о разработке. В этой связи, говорит Дунин, он больше не в состоянии контролировать изменения, вносящиеся в nginx, а поэтому не может рассматривать продукт как бесплатный проект open source, разработанный ради общественного блага.

«Поэтому с сегодняшнего дня я больше не буду участвовать в nginx. Вместо этого я начинаю альтернативный проект, которым будут управлять разработчики, а не корпорации», — заявляет Дунин.

Нужно отметить, что ранее разработчики nginx учредили в России компанию «Веб-Сервер», которая развивает альтернативный проект Angie. У это продукта имеется коммерческая PRO-версия, а сам веб-сервер включён в реестр отечественного ПО.

Изменения, которые компания Red Hat внесла в политику доступа к исходным кодам дистрибутива Red Hat Enterpise Linux (RHEL), создают непредвиденные сложности для команд разработчиков CentOS Special Interest Group (SIG), о чём сообщает ресурс Phoronix.

В июне 2023 года, напомним, Red Hat объявила о прекращении поддержки публикации исходного кода пакетов уже выпущенных релизов в репозитории CentOS. Публично остаются доступны только репозитории CentOS Stream, «вечной бета-версии» будущих релизов RHEL.

Исходники RHEL хранятся на клиентском портале Red Hat, доступном только при наличии контракта. Участники рынка заявили, что действия Red Hat создают нестабильность и не соответствуют принципам open source. Впоследствии CIQ, Oracle и SUSE создали совместную торговую ассоциацию Open Enterprise Linux Association (OpenELA), чтобы противостоять политике Red Hat.

Источник изображения: Yang / Unsplash

Однако новая практика этой компании продолжает оказывать негативное влияние на деятельность приближенных к ней разработчиков. В частности, группа Kmods SIG, поддерживающая дополнительные модули ядра для CentOS Stream и RHEL, в настоящее время «не может создавать пакеты для Red Hat Enterprise Linux по юридическим причинам». Разработчики пытаются решить этот вопрос с Red Hat и возобновить деятельность «как можно скорее», но конкретные сроки не называются. Со сложностями также столкнулась группа CentOS Hyperscale SIG. Hyperscale SIG теперь опирается на Fedora, а не на дерево CentOS/RHEL.

В 2024 году проекту OpenWrt, дистрибутиву Linux, разработанному для использования в маршрутизаторах и других сетевых и встраиваемых решенияз, исполняется 20 лет. Сообщество разработчиков OpenWrt решило отпраздновать юбилей созданием беспроводного роутера OpenWrt One (AP-24.X), построенного на плате в стиле Banana Pi.

Естественно, предполагается максимальное использование open source ПО (за исключением прошивки беспроводного чипа), наличие U-Boot и поддержка в ядре Linux. Ожидается, что стоимость устройства не будет превышать $100. Схемы сборки устройства будут поставляться с открытой лицензией. Продажей устройства займётся некоммерческая организация Software Freedom Conservancy, ответственная за юридическую защиту проекта OpenWrt.

Изображение: Banana Pi

Платформа будет построена на SoC MediaTek MT7981B. Поддержку Wi-Fi 6 обеспечит чип MediaTek MT7976C (2×2 2,4 ГГц + 3×3/2×2 + DFS 5 ГГц). Объём оперативной памяти DDR4 составит 1 Гбайт, ёмкость флеш-памяти SPI NAND — 128 Мбайт, SPI NOR (загрузчик + служебные данные) — 4 Мбайт. Расширить память можно будет с помощью слота M.2 для NVMe SSD (PCIe 2.0 x1).

Устройство получит два разъёма Ethernet (2.5GbE + 1GbE), порты USB 2.0 Type-A и USB-C (UART, консоль, CDC-ACM, питание), JTAG, RTC (с разъёмом для батарейки) и слот mikroBUS. Также сообщается о кнопке сброса и пользовательской кнопке на корпусе, механическом переключателе режима загрузки (восстановление или штатный режим) и четырёх светодиодах. Создатели надеются получить собственный OUI-блок, который впоследствии можно будет задействовать в других open source проектах.

Разработчики намерены сделать устройство максимально защищённым, в том числе от «окирпичивания». Этому будут способствовать несколько режимов восстановления, простой доступ к консоли и применение внешнего аппаратного watchdog-монитора. А благодаря слоту M.2 можно будет выполнить загрузку дополнительных дистрибутивов, таких как Debian или Alpine.

Участники проекта Gentoo Linux объявили о запуске репозитория готовых бинарных пакетов. Это в числе прочего повысит общее удобство использования ОС и поможет ускорить работу с медленным оборудованием. Бинарные пакеты можно применять наряду с пакетами, компилируемыми из исходного кода.

Менеджер Portage проекта Gentoo Linux уже давно поддерживает работу с двоичными пакетами. Теперь такие компоненты можно загружать с серверов Gentoo. Данный подход позволяет экономить время и осуществлять безопасное обновление систем. Наличие предварительно скомпилированных бинарных пакетов на отдельном сервере или на локальном компьютере может стать подспорьем в случае повреждения базовой системы.

Изображение: Ben Stedman и Alex Legler

Для большинства архитектур доступные бинарные пакеты охватывают основную систему и еженедельные обновления. В случае платформ amd64 и Arm64 на зеркалах Gentoo Linux также имеется большое количество различных бинарных пакетов суммарным размером более 20 Гбайт. Бинарные пакеты для систем amd64/x86-64 скомпилированы с флагами «-march=x86-64 -mtune=generic -O2 –pipe», для систем arm64/AArch64 — с флагами «-O2 –pipe».

Бинарные пакеты подписаны криптографической подписью с теми же ключами, которые ранее применялись для stages-сборок. Отмечается, что менеджер Portage поддерживает два формата бинарных пакетов — XPAK (старый) и GPKG (новый). При этом только GPKG может иметь криптографическую подпись. Все новые официальные бинарные пакеты Gentoo имеют формат GPKG.

Некоммерческий консорциум Linux Foundation обнародовал годовой отчёт о развитии экосистемы open source. Говорится, что в 2023-м в состав организации вошли приблизительно 270 новых участников, а общее количество курируемых проектов достигло 1133.

В течение 2023 года выручка Linux Foundation составила примерно $262,6 млн, а расходы — $269,0 млн. Общая доля затрат, связанных с разработкой ядра Linux, составила всего 2,9 %, или около $7,8 млн. Это почти на $400 тыс. меньше по сравнению с 2022-м, когда доля расходов на ядро равнялась 3,2 %. В 2021-м это значение оценивалось в 3,4 %.

На различные проекты пришлось в общей сложности 64 % всех расходов Linux Foundation — около $171,8 млн. Наибольший вклад в эту сумм внесли инициативы, связанные с облачными технологиями, контейнерами и виртуализацией (25 %), а также сетевыми технологиями (13 %).

Источник изображений: Linux Foundation

Доля затрат Linux Foundation в сфере ИИ, машинного обучения и аналитики данных в 2023 году составила примерно 12 %. На средства обеспечения безопасности и конфиденциальности потрачено 4 % от общей суммы, приблизительно столько же ушло на Интернет вещей (IoT) и встраиваемые решения. На технологии блокчейна также направлено 4 % затрат.

На поддержание инфраструктуры в 2023-м потрачено $22,58 млн (9 %), на программы обучения и сертификации — $18,57 млн (7 %), на корпоративную деятельность — $17,12 млн (6 %), на различные мероприятия — $14,60 млн (6 %), на поддержку сообщества — $13,53 млн (5 %), на международные операции — $2,96 млн (1 %).

Что касается денежных поступлений, то 45 % всех полученных средств (118,2 млн долларов) пришлось на пожертвования и взносы членов организации. Ещё 26 % ($67 млн) составила целевая поддержка проектов, 19 % ($49,5 млн) — поддержка мероприятий, а также регистрационные сборы на конференциях, 10 % ($27,2 млн) — оплата обучающих курсов и получение сертификатов.

4­–5 декабря в здании Президиума Российской академии наук в Москве состоялась Открытая конференция ИСП РАН, посвященная 75-летию отечественных информационных технологий. За два дня конференцию посетили более 1000 участников и столько же посмотрели онлайн-трансляцию.

«Этот юбилей обращает нас к богатейшему практическому опыту, накопленному в ИТ-отрасли нашими специалистами, а также к сильнейшим научным школам, которые сегодня продолжают развиваться и привлекать молодых, талантливых учёных, — подчеркнул в приветственном слове президент РАН Геннадий Красников. — Отмечу, что благодаря насыщенной программе и представительному составу участников эта конференция предоставляет специалистам замечательную возможность обсудить друг с другом ключевые результаты своей работы, обменяться видением дальнейшего развития информационных технологий. И, конечно, установить ценные профессиональные контакты».

Источник изображений: ИСП РАН им. В.П. Иванникова (нажмите для увеличения)

«Правительство комплексно поддерживает ИТ-отрасль, которая динамично развивается и с каждым годом наращивает свой потенциал. В этом году в отечественные ИТ-решения было вложено свыше 300 миллиардов рублей. Оборот софтверных российских компаний составил 1,7 триллиона. По поручению президента Владимира Путина правительство формирует новый нацпроект «Экономика данных». Он охватит широкий спектр направлений — от разработки программного обеспечения до развития квантовых технологий. Для реализации столь масштабных задач идет подготовка квалифицированных кадров, — рассказал заместитель председателя правительства РФ Дмитрий Чернышенко. — Сегодня в ИТ-отрасли задействовано более 820 тысяч человек. И это число будет только расти. ИТ-специальности стали в этом году одними из самых популярных среди абитуриентов российских вузов. Безусловно, развитие столь наукоемкой цифровой сферы невозможно без прикладной и фундаментальной науки и исследований. Для того, чтобы Россия оставалась ведущей ИТ-державой, нужна синергия усилий науки, бизнеса и государства. Я благодарю всех организаторов конференции, в том числе ИСП РАН им. В.П. Иванникова, Российскую академию наук, за системную работу в этом направлении».

«С 1948-го года в нашей стране стала активно развиваться отрасль, которая играет огромную роль в современной жизни. Искусственный интеллект, операционные системы, прикладные программы — это то, чем мы пользуемся каждый день. Эти технологии быстро развиваются и открывают новые возможности, — отметил заместитель председателя Совета Федерации Юрий Воробьёв. — Устойчивое развитие — это не только про технологии, конечно, но еще и про людей. Нам необходимо обеспечить подготовку высококвалифицированных специалистов, создать условия для прорывных научных исследований, обеспечить эффективный обмен научными знаниями. Ваша конференция и служит решению этих задач. Хочу пожелать вам успеха, плодотворной работы и новых открытий».

На пленарной сессии выступили также вице-президент РАН, академик-секретарь Отделения математических наук Валерий Козлов, генеральный директор Национального технологического центра цифровой криптографии Игорь Качалин, заместитель министра цифрового развития, связи и массовых коммуникаций РФ Александр Шойтов, генеральный директор СберТеха Максим Тятюшев, заместитель председателя Госдумы РФ Борис Чернышов, председатель Сербского отделения IEEE Computer Society Божидар Раденкович, представители Академий наук Армении, Белоруссии и Узбекистана и многие другие.

В завершение пленарной сессии директор ИСП РАН Арутюн Аветисян рассказал о создании консорциума в составе ИСП РАН, Объединенного института ядерных исследований (ОИЯИ) и НИЦ «Курчатовский институт». Целью работ станет обработка данных в рамках проектов «мегасайенс», а также создание коллаборативной сервис-ориентированной цифровой среды науки и образования.

«В формате "мегасайенс" сейчас развиваются все отрасли науки. Чтобы это происходило успешно, необходима умная облачная платформа науки и образования, предназначенная для междисциплинарных проектов. Для ее создания мы совместно с ОИЯИ и Курчатовским институтом организовали консорциум, — сообщил директор ИСП РАН Арутюн Аветисян. — Вместе мы сможем создавать наукоёмкие технологии, и что очень важно — готовить высококвалифицированные кадры».

В рамках пяти научных секций (по анализу и трансформации программ, управлению данными, САПР микроэлектронной аппаратуры, решениям задач механики сплошных сред и лингвистическим системам анализа) на конференции было представлено около 100 докладов специалистов из НИУ ВШЭ, МФТИ, МГУ им. М.В. Ломоносова, МГТУ им. Н.Э. Баумана, ННГУ, РЭУ им. Г.В. Плеханова, Китайского университета океана и других организаций. Кроме того, впервые была проведена секция «Российский open source: разработка библиотек в сфере ИИ», организованная Фондом содействия инновациям. Свои достижения представили 19 команд, получивших гранты на разработку открытых библиотек по таким направлениям, как распознавание и синтез речи, обработка естественного языка, интеллектуальные системы поддержки принятия решений, компьютерное зрение, перспективные методы искусственного интеллекта.

Ставшая традиционной секция по кибербезопасности в этом году получила дополнительный фокус на вопросах образования и прошла под названием «Образование, технологии, сообщество: системный подход к безопасной разработке». Она объединила десятки специалистов из таких компаний, как «Лаборатория Касперского», ГК «Солар», МТС Red, «Яндекс.Облако», а также представителей московских и региональных вузов (МГТУ им. Н.Э. Баумана, НовГУ, ЧГУ). Главными темами стали образовательные стратегии и совместная работа по повышению безопасности программ с открытым исходным кодом.

В рамках конференции прошёл также круглый стол «Цифровая медицина», участники которого обсудили современные достижения и вызовы разработки ПО, а также вопросы взаимодействия между врачами и программистами. В сессии приняли участие представители консорциума НЦМУ «Цифровой биодизайн и персонализированное здравоохранение» и другие партнёры ИСП РАН из медицинской сферы. Уже во второй раз в дополнение к секции по управлению данными Исследовательский центр доверенного ИИ ИСП РАН организовал воркшоп «Системы доверенного искусственного интеллекта». Доклады охватили широкий ряд тем: от распознавания выражений лиц на видео до использования объяснимого ИИ в биомаркерах старения.

На конференции был подписан ряд соглашений. ИСП РАН договорился о сотрудничестве с Белорусским государственным университетом информатики и радиоэлектроники. Кроме того, были заключены соглашения с ГК «Солар» для ускорения развития и внедрения инструментов безопасной разработки и с ООО «Системные решения» — для устойчивого развития инфраструктуры сбора и анализа больших данных и ИИ с использованием облачных решений в интересах коммерческих компаний.

Традиционная выставка технологий объединила 27 инноваций ИСП РАН, в число которых впервые вошли доверенные фреймворки машинного обучения, а также VALIDBIM — сервис верификации информационных моделей в архитектуре и строительстве. Впервые в выставке приняли участие и партнёры института, как индустриальные, так и образовательные: «Беллсофт», «Лаборатория Касперского», «Аладдин», ГК Astra Linux, «Фобос-НТ», НПЦ КСБ, «Базальт СПО», CodeScoring, «Гарда технологии», Yadro, «Базис», «Открытая мобильная платформа», Postgres Professional, Luntry, «Айдеко», МГТУ им. Н.Э. Баумана и МЭИ.

Следующая Открытая конференция ИСП РАН состоится в декабре 2024 года и будет посвящена 30-летию института.

Компания ASRock сообщила о выпуске программного инструмента AI QuickSet для Linux, который позволяет быстро загружать, устанавливать и настраивать приложения ИИ. Ранее этот софт был доступен только для Windows 10/11.

AI QuickSet предоставляет удобный и понятный интерфейс для поиска, скачивания, установки и конфигурирования различных ИИ-средств и компонентов (вроде TensorFlow и PyTorch), а также специализированных библиотек.

В процессе работы AI QuickSet запрашивает у пользователя параметры функционирования ИИ-приложения или активирует конфигурацию по умолчанию. Это, как заявляется, гарантирует оптимальную работу программ, а пользователям не приходится углубляться в сложные ручные настройки.

Linux-версия AI QuickSet совместима с Ubuntu 22.04.3 Desktop. Говорится, что инструмент задействует возможности ускорителей AMD серии Radeon RX 7900 и программного стека AMD ROCm. Поддерживаются различные приложения и модели open source, включая Image/Manga Translator, Stable Diffusion CLI, Ultralytics YOLOv8 и др.

Источник изображения: ASRock

Для использования AI QuickSet необходим компьютер с процессором Intel Core 14/13-го поколения или AMD Ryzen серий 7000/5000. Говорится о совместимости с материнскими платами Intel серии 700/600 и AMD серии 600/500. Объём оперативной памяти должен составлять не менее 32 Гбайт. Требуется наличие ускорителя ASRock AMD Radeon серии RX 7000 (версия для Windows) или AMD Radeon серии RX 7900 (вариант для Linux).

Корпорация Cisco объявила о заключении соглашения по покупке стартапа Isovalent, специализирующегося на разработке сетевых решений open source для обеспечения безопасности, в том числе в облачных средах. Финансовые условия сделки не раскрываются. Isovalent является участником проекта eBPF (extended Berkeley Packet Filter), нацеленного на использование возможностей ядра Linux для мониторинга активности, обнаружения проблем с производительностью и выявления рисков безопасности различных рабочих нагрузок.

Кроме того, Isovalent принимает участие в двух других проектах open source: Cilium и Tetragon. Первый помогает управлять потоками сетевого трафика между контейнерами, а второй дополняет Cilium, предоставляя дополнительные возможности кибербезопасности. Стартап недавно представил решение Cilium Mesh, которое позволяет подключать кластеры Kubernetes к существующей инфраструктуре в гибридных облаках.

Источник изображения: Cisco

Cisco намерена использовать технологии Isovalent для расширения своего набора сервисов в области кибербезопасности. Речь идёт о развитии концепции Cisco Security Cloud — интегрированной облачной платформы безопасности на базе ИИ для организаций любого размера. Данная система позволяет клиентам отделить средства управления безопасностью от мультиоблачной инфраструктуры, обеспечив защиту от возникающих угроз в любом облаке, приложении или рабочей нагрузке. Cisco планирует объединить Cilium Mesh со своими программно-определяемыми сетевыми продуктами.

Корпорация Cisco намерена завершить сделку по поглощению Isovalent в III четверти 2024 финансового года, который закончится 27 июля. После этого сотрудники стартапа присоединятся к подразделению Cisco Security Business Group.

Центр Big Data МТС объявил о разработке первой в России библиотеки, позволяющей создавать графовые нейросети. Пакет получил название CoolGraph, а его исходники доступны всем желающим на площадке GitHub по лицензии MIT, которая в числе прочего позволяет использовать код в закрытом софте.

Отмечается, что в CoolGraph специалисты Big Data МТС собрали свои лучшие наработки в области построения кастомных моделей. Библиотека даёт возможность легко задать архитектуру сети и автоматически подобрать гипер-параметры.

Источник изображения: pixabay.com

Среди ключевых преимуществ CoolGraph названы: быстрый запуск с помощью двух строк кода, хорошее качество базовых моделей, поддержка гетерогенных графов и автоматизированный поиск оптимальных параметров через фреймворк Optuna. Отслеживать результаты экспериментов можно в MLFlow. Параметры для обучения собраны в конфигурационных файлах, но разработчики смогут менять их по своему усмотрению.

Говорится, что библиотека CoolGraph предназначена как для экспертов, так и для начинающих специалистов в области глубокого обучения нейросетей, имеющих доступ к данным графов. На их основе разработчики смогут строить различные модели. В дальнейшем центр Big Data МТС намерен пополнять библиотеку. Кроме того, будет открыт доступ к другим компонентам.

«Для достижения прорывов в области машинного обучения необходимо большое количество талантливых людей, экспериментирующих с технологиями. Наша библиотека решает эту задачу за счёт снижения порога входа в графовые нейросети», — говорит директор центра Big Data МТС.